Chùa Trăm Gian là một quần thể kiến trúc độc đáo. Theo cách tính cứ 4 góc cột là một "gian" thì chùa có cả thảy 104 gian, chia thành 3 cụm kiến trúc chính:

Cụm thứ nhất gồm 4 cột trụ và 2 quán, trước đây là nơi đánh cờ người trong ngày hội, tiếp đó là nhà Giá Ngự nhìn ra mặt hồ sen, nơi đặt kiệu thánh để xem trò múa rối nước.

Trèo qua mấy trăm bậc gạch xây là tới cụm thứ hai gồm một tòa gác chuông 2 tầng mái, có lan can chạy quây 4 mặt. Các ván bằng đều có chạm hình mây hoa. Tại đây treo một quả chuông cao 1,10 m, đường kính 0,6 m, đúc năm Cảnh Thịnh thứ hai, 1794. Trên chuông có khắc một bài minh của Phạm Huy Ích. Qua gác chuông, leo 25 bậc đá xanh hình rồng mây, đến sân trên có kê một sập đá hình chữ nhật.

Lại leo 9 bậc đá, hai bên có lan can chạm hình rồng cuộn khúc thế tới cụm thứ 3 đó là chùa chính, gồm nhà bái đường, toà thiêu hương và thượng điện. Hai bên là 2 dãy hành lang. Trong cùng là nhà tổ, giữ lại có lầu trống bên trong treo một cỗ trống lớn, đường kính 1 m và một tấm khánh đồng dài 1,20 m, cao 0,60 m đúc năm 1749, Cảnh Hưng thứ 10. Tại đây có 153 pho tượng, hầu hết bằng gỗ, một số ít bằng đất nung, đặc biệt quý là tượng Tuyết Sơn, tượng Quan Thế Âm Bồ Tát. Ở giữa thượng điện có một bệ bằng đất nung đỏ hình khối chữ nhật, giống kiểu các bệ đá thời nhà Trần. Trên bệ đá là đài sen, xung quanh trang trí nhiều hình động vật và hoa lá, bón góc có hình chim thần. Trên bệ đặt các tượng Phật tam thế. Trong chùa còn có nhiều bia, hoành phi, câu đối... Riêng có hai câu đối khảm trai, tương truyền có từ thời nhà Hồ (1400-1406).

Trong chùa có tượng đô đốc Đặng Tiến Đông, một tướng lĩnh nhà Tây Sơn, chỉ huy đạo quân đánh vào phía nam Thăng Long. Tượng này được phát hiện vào năm 1972. Ngoài ra còn có tượng Đức Thánh Bối đặt trong khám gỗ gian bên phải. Đây là tượng cốt rút bằng mây đan ngoài bọc vải sơn, tương truyền là tượng bỏ hài cốt của ông.